永贞元年（805年）七月，改户部侍郎。

唐宪宗元和（806年－820年）初年，历任兵部、吏部侍郎，因事被改授太子宾客，又拜兵部侍郎、太常卿等职。

元和五年（810年），权德舆以“陈说谋略多中”，自太常卿，拜礼部尚书、同中书门下平章事（宰相），参与朝政。他为政以宽厚为本。

权德舆任相的次年，李吉甫和李绛又先后被拜为宰相。两人常为政事在宪宗面前争论。每当此时，权德舆总不表态，并因此而受到朝臣的指责，也引起了宪宗的不满。元和八年（813年）正月，权德舆被罢去宰相职务，任礼部尚书。旋即以检校吏部尚书任东都留守，又拜太常卿，转任刑部尚书。

元和十一年（816年），权德舆又以检校吏部尚书，出任山南西道节度使，后因病求还。

元和十三年（818年）八月二十七日（9月30日），权德舆在入朝途中于汉中府洋县纸坊去世，享年六十岁，追赠左仆射，谥号为“文”，后人称为权文公，归葬于包全村南面权家祖坟，世称权家庙，后毁于文革中。

权德舆仕宦显达，并以文章著称，为中唐台阁体的重要作家。于贞元、元和间执掌文柄，名重一时。刘禹锡、柳宗元等皆投文门下，求其品题。性直谅宽恕，蕴藉风流，好学不倦。为文“尚气尚理”（《醉说》），主张“体物导志”（《唐故漳州刺史张君集序》），“有补于时”（《崔寅亮集序》）。不满于“词或侈靡，理或底伏”（《崔文翰文集序》）之衰薄文风。《旧唐书权德舆传》说他“于述作特盛。六经百氏，游泳渐渍，其文雅正而弘博，王侯将相洎当时名人薨殁，以铭纪为请者什八九，时人以为宗匠焉。”浑瑊、马燧等名将功臣的碑铭、行状都出自他的手笔。所作《两汉辨亡论》，谴责张禹、胡广贪图禄位而败坏两汉政治，史家以为“大指有补于世”（《新唐书·权德舆传》）。由于他没有经历过重大的政治升沉和生活变故，因而文章有儒雅的风度、恢宏的气派，但缺少深切的内涵、创新的格局。与他同时代的皇甫湜所著《谕业》中说：“权文公之文，如朱门大第，而气势宏敞，廊庑廪厩，户牖悉周，然而不能有新规胜概，令人竦观。”

其诗以五言居多，五古、五律赡缛浑厚，颇多佳什。张荐称其诗“词致清深，华彩巨丽，言必合雅，情皆中节”（《答权载之书》）。南宋严羽《沧浪诗话》对其诗作评价颇高，称为大历以后值得“深取”之作者，并说：“权德舆之诗，却有绝似盛唐者……或有似韦苏州、刘长卿处。”元人辛文房《唐才子传》称其“能赋诗，工古调乐府，极多情致。积思经术，无不贯综，手不释卷。虽动止无外饰，其酝藉风流，自然可慕。贞元、元和间，为荐绅羽仪”。

权德舆在治理国家方面，主张德治和法治并用，对不法行为的贪官污吏坚决严惩。他始终认为“民为邦本”，“天下理在百姓安，百姓安在赋税减，赋税减在经费省”，对人民的疾苦，备加关注。贞元十九年（803年），自春至夏及秋，关中大旱，田园荒芜，民不聊生。而唐德宗反祈于宗庙，祷于天地，忙于求雨而滴雨未降。权德舆见此情景，十分焦灼，大声疾呼，再次向德宗建议，下诏各县裁留经费，把节约下来的钱物救济灾民，免除当年租赋及往年负欠，以便百姓重建家园，并遗责了当时“四方守宦，锐于上献”，剥削百姓的卑劣行为。

《新唐书·艺文志》著录其《童蒙集》10卷，又有文集50卷、《制集》50卷、《元和格敕》30卷（与刘伯刍等合编）。《童蒙集》《制集》已佚。文集有清代嘉庆时朱刊《权载之文集》50卷，杨嗣复为之序。《四部丛刊》本即据此影印。

《全唐诗》编其诗为10卷，见卷320至329，《全唐诗补编·补逸》卷6补诗一首，《续补遗》卷5补7首，《续拾》卷23补2首。《全唐文》编其文为27卷，见卷483至509，《全唐文拾遗》卷24补其文1篇。

权德舆秉性耿直，为人宽和，言语质朴自然，风度甚佳，为时人所称道。他办事光明正大。有一次，运粮使董溪、于皋谟盗用军费，案发后，被流放岭南。宪宗感到量刑太轻，很后悔，又暗暗派宦官赶去将两人杀死于流放途中。权德舆就立即上疏说，依据这两人的罪名，本当公开处死的，但既然已经宣判了流放，就应当遵照执行，如今却又暗暗地将他们处死，这是名不正，言不顺，有损朝廷信誉，劝宪宗今后再也不能如此干了。这足见他为人之耿直。

权德舆寓居阳羡期间，曾游览玉女潭，称玉女潭为“阳羡胜境，以此为首”。另有诗作《周平西墓》：“英威今寂寞，陈迹对崇丘。壮志清风在，荒坟白日愁。穷泉那复晓，乔木不知秋。岁岁寒塘侧，无人水自流”传世。

抗战时期，大儒于右任路过略阳，写下《略阳滞雨咏权德舆》一诗：“丞相风流水石间，略阳遗迹邈难攀。诗开元白当时体，雨湿西南不断山。江渚瑶琴思往往，钓台明月自闲闲。孤舟冷落长征客，一夜怀人鬓欲斑。”

先祖：权翼，前秦司徒，封爵安丘公。

祖父：权倕，隋朝左羽林参军，赠礼部郎中。

父亲：权皋，唐朝起居舍人，赠太子太保。

儿子：权璩，唐朝中书舍人。